Zwar erscheint der Name "Herre" für Heere bereits in einer Urkunde aus dem Jahre 1131, aber eine Unterscheidung zwischen Groß und Klein Heere erfolgte erst etliche Jahre später. So wird Klein Heere 1255 als "minor Herre" bezeichnet, 1261 nennt man das Dorf "parvum Herre" und 1403 "lutteken Here".

Der Klein Heerer Grundbesitz gehörte ursprünglich den Wohldenberger Grafen. Etliche Ländereien gelangten im Laufe der Zeit jedoch in andere Hände. 1255 übertrug Graf Hoier dem Kloster Ringelheim zeitweilig die Vogtei über drei Hufen in Klein Heere und Heißum und sechs Jahre später schenkten die Wohldenberger Grafen Hermann und Hoier dem Kloster Wöltingerode drei Hufen in Klein Heere.

Der Hildesheimer Bischof Johann III. (1398 bis 1424) belehnte 1403 seinen Stiftsmarschall, den Ritter Hans von Schwicheldt, mit dem Zehnten von "lutteken Here." 1286 hatte Dietrich von Wallmoden diesen Zehnten noch als Wohldenberger Lehen besessen.

Auch in Klein Heere war eine dem niederen Adel angehörende Familie ansässig, ebenso wie in Groß Heere. War es in Groß Heere eine Dienstmannenfamilie, so reichte die Geschichte der Klein Heerer Familie, die verschiedene Domherren und Pröpste im Bistum Hildesheim stellte, bis in die Zeiten der sächsischen Eroberer zurück. Etwa um 1200 erlosch die Familie.

Klein Heere gehörte - wie die Dörfer seiner Umgebung auch - einst zum Salzgau, später zum Amt Wohldenberg der Oberen Gohe im Fürstbistum Hildesheim und nach der Stiftsfehlde zwischen dem Bischof und dem Braunschweiger Herzog von 1523 bis 1643 zum Herzogtum Braunschweig.

Unter den Lasten der verschiedenen Fehden und Kriege, vor allem aber unter denen des Dreißigjährigen Krieges, mag der Ort genauso gelitten haben wie die anderen Dörfer der Umgebung.

1664 wurden in Klein Heere 105 Einwohner gezählt, die über 14 Jahre alt und damit steuerpflichtig waren. 1701 lebten im Dorfe 21 evangelische "Hausgenossen" mit 33 Söhnen und 31 Töchtern sowie ein katholischer "Hausgenosse"mit einem Sohn und einer Tochter. 1769 wohnten in Klein Heere vier Ackerleute und 23 Kotsassen, die 656 ½ Morgen Land und 27 ½ Morgen Wiese bewirtschafteten. Bis zur Verkoppelung 1858 beackerten die Bauern Groß und Klein Heeres eine gemeinsame Feldmark, seither ist sie in getrennte Fluren aufgeteilt.

Im Jahre 1883 lebten in den damaligen 45 Klein Heerer Wohnhäusern 301 Menschen. 1973 später waren es dann nur noch 270. Am 30. November 1998 hatten Groß und Klein Heere zusammen 1213 Einwohner. Außer in der Klein Heerer Freiwilligen Feuerwehr haben die Bewohner dieses Heerer Gemeindeteils die Möglichkeit, sich im Klein Heerer Berggartenverein oder in einem der anderen Heerer Vereine zu betätigen.

Das Baujahr der Kirche mit ihrem wehrhaften Kirchturm ist nicht bekannt, sie ist aber zweifellos das älteste Gebäude des Dorfes. Ob die Jahreszahl 1378, die auf dem Marienstein links neben dem Eingang zu lesen ist, das Jahr des Kirchenbaues angibt, ist nicht sicher. Bemerkenswert im Inneren sind die beiden bronzenen Altarleuchten von 1655, der sechsarmige Leuchter von 1656 und besonders das restaurierte gotische Altarbild.

Lediglich vor der Reformation hatte Klein Heere einen eigenen Pfarrer, seither wird der Ort von Groß Heere aus versorgt. Die katholischen Christen des Ortes besuchen die Gottesdienste in Baddeckenstedt.

Von 1717 bis 1815 wurden in Klein Heere nur die kleinen Kinder unterrichtet. Vorher besuchten alle die Groß Heerer Schule. 1815 bekam Klein Heere dann eine selbständige Schule, die 1972 aufgelöst wurde. Das Schulgebäude befindet sich heute in Privatbesitz. Die Grundschüler des Ortes besuchen heute die Schule in Sehlde, während die größeren Kinder die "Schule im Innerstetal" (Hauptschule mit Orientierungsstufe) Baddeckenstedt beziehungsweise weiterführende Schulen in den benachbarten Großstädten besuchen.

War es in Groß Heere der Pfarrerssohn August Winnecke, der den Ort berühmt machte, so war es in Klein Heere der Rittmeister Levin Sander, genannt Immernüchtern, der im Dreißigjährigen Krieg "den Schweden etzliche 1000 niedergemacht"hat, am 7. Oktober 1641 zwischen Bockenem und Lutter gefangengenommen wurde und auf dem Galgenberg bei Hildesheim "mit einem Streithammer durch die Hirnschale gehawen und elendiglich getödtet" wurde, wie es in einem zeitgenössischen Bericht heißt.